训练整个 Agent:策略与 Harness 联合进化
🧭 Agent 训练 · RL 联合优化工具/hooks
Zhejiang University · LIGHTSPEED · Independent Researcher
HarnessAdapt-RL 在强化学习中同时训练策略模型与工具/hooks,显著提升 coding agent 的 pass@1
📌 工作参考价值(4 点)
- 搜索/推荐 Agent 训练不应只更新 LLM 参数,可将工具描述、hooks、检索接口等视为可学习组件,在 RL 中与策略共同迭代;尤其适合电商 Agent 中 API 调用、query 改写、商品召回等工具链的联合优化。
- 借鉴其变更接受条件:每个工具/hook 变更只有在离线评估中提升 pass rate 或可训练率且不降低另一方才保留。业务上可对应“商详页点击率/转化率提升,同时训练样本有效率不下降”的门控机制。
- 任务特定的机制级技能可由 frozen teacher 生成,训练时注入引导,上线前移除,降低部署复杂度,同时保留策略泛化增益;适合将专家规则或人工 SOP 转化为训练期辅助信号。
- 对反复出现的交互问题(如失败重试、上下文截断、工具返回格式错误)可进化 tools/hooks 而非硬编码,并让策略学习与新 harness 协调,避免过早冻结早期版本的优化陷阱。
自进化编码代理:基于 Harness-Policy 优化
🧭 Agent 自进化与强化学习
Microsoft Research · University of Virginia · Carnegie Mellon University
提出 Self-HPO 框架,交替优化编码代理的 harness 与 policy,实现递归自改进,显著提升编码任务解决率
📌 工作参考价值(4 点)
- 在电商推荐/搜索的 Agent 系统中,不要只微调策略模型或只调整工具/流程(harness),两者应联合迭代优化:让当前策略基于自身失败模式提出新的工具或交互脚手架候选,再用 RL 更新策略,形成闭环。
- 利用策略自身作为 harness proposer 的思路可以迁移到推荐 Agent:当 agent 在特定任务(如 query 改写、商品筛选)上频繁失败时,让其反思失败原因并生成新的工具描述、API 调用模板或搜索流程,然后用这些新 harness 重新训练策略。
- 从训练中收集困难样本(hard tasks)用于下一轮 harness 搜索,可以保证优化方向始终针对策略的当前薄弱点,避免盲目扩展工具集;对推荐系统来说,可借鉴此机制动态聚焦长尾 query 或复杂会话场景。
- 实验显示联合优化 harness 和 policy 的增益超过各自单独优化之和(joint gain > sum of individual gains),这提示在实际业务中,同时调整“模型能力”与“工具/流程”可能带来乘数效应,而非简单叠加。
TimeRSI:面向时间序列基础模型的自改进智能体部署
🧭 Agent 自动编排预测部署流程
Georgia Institute of Technology · University of Southern California · Samay AI
用 LLM coding agent 在冻结预测模型外围自动生成与迭代 pipeline,并通过自适应选择器提升时间序列预测部署效果
📌 工作参考价值(4 点)
- 把“冻结模型 + 外围 pipeline 自动迭代”迁移到电商预估/推荐:不改模型权重,由 coding agent 生成和修改特征注入、日历/活动信号、后处理或重排代码,在滚动历史回放窗口上评估,可显著降低人工 pipeline 调试成本。
- 借鉴错误反馈闭环:将回测中的分场景误差(如大促、时段、类目偏差)写成自然语言反馈给 agent 进行下一轮修改,比一次性搜索更有效;推荐系统可用“场景化 error report”驱动规则/校准代码生成。
- 在线集成 adaptive selector:按当前上下文和近期相似条件下的实际表现,从多个候选 pipeline/策略中动态选择,而不是固定单一版本;适合推荐场景中多召回/多后处理策略的在线组合选择。
- 工程落地时限定 agent 可修改空间(输入特征、输出校准、后处理逻辑)并做沙箱执行与回测成本控制,避免开放式搜索失控。
Encore:从少量演示中发现操控策略的 Agent 框架
🧭 Agent 从少量演示中提取策略并编程执行
Massachusetts Institute of Technology · 22077AI Open Source Foundation · Texas A&M University · University of Wisconsin–Madison
把少量演示作为证据包供编程 Agent 研读并迭代改写策略,冻结后评估不暴露成功信号
📌 工作参考价值(4 点)
- 可借鉴「演示即证据」的思路:在电商 Query 改写、广告文案生成或推荐策略决策中,将少量高质量成交/高点击样本的结构化轨迹(关键行为事件、状态变化)作为 prompt 上下文,让 LLM 从中归纳策略,而不是重新训练或微调。
- 固定感知/动作 API 的抽象很有用:给 Agent 暴露一组受限的领域函数(如召回、过滤、排序、出价),让 Agent 组合生成可执行策略程序,比自由文本输出更可控、可上线。
- 开发期允许少量 rollout 调试迭代,但最终 sealed evaluation 不反馈成功信号,可以防 Agent 过拟合评估指标或奖励黑客;迁移到线上测试时,冻结策略后用无偏指标评估。
- 确定性信息蒸馏:把演示/日志压缩为多视角关键帧、事件片段等结构化 pack,能降低 LLM 读取长流程的负担;在用户行为序列建模中,可提取关键行为事件、商品切换等作为总结性证据输入。
RLE-Bench:编码智能体作为机器人学习工程师的资格考试基准
🧭 编码智能体 · 机器人工程能力评测
Harvard University · Georgia Institute of Technology
提出覆盖四类机器人开发工作流的编码智能体评测基准,用 RLE Index 聚合多维工件指标并给出排行榜
📌 工作参考价值(4 点)
- 借鉴“工作流拆解 + 工件级评估”范式:将电商推荐 Agent 的能力按 query 理解/候选召回/排序策略/诊断优化等 workflow 拆分,分别评估 Agent 产出的代码、配置或策略,避免只测对话文本。
- 借鉴 RLE Index 的异构指标归一化聚合方法:在 Agent 综合能力排名中,对不同任务的成功率、策略收益、结构指标等做标准化后加权,可用来比较不同 LLM 驱动的推荐 Agent。
- 引入资源约束与多模态反馈的评估条件:电商 Agent 常面临延迟、成本、多样性约束,评测时可加入相应限制,考察 Agent 在受限环境下生成可部署 artifact 的能力。
- 案例研究定位 failure mode:对 Agent 在复杂搜索推荐任务中的行为做细粒度分析,可发现 LLM 在集成异构组件、处理多模态信号时的具体短板,指导后续微调或 prompt 设计。
SoL-Pi:递归扩展自动研究循环,打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环,保留四种 token 效率机制,性能不变但成本降约三分之一
📌 工作参考价值(4 点)
- 上下文压缩可迁移到多轮推荐 Agent:Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理,保留关键商品/用户意图证据,削减冗余交互,降低推理 token 与延迟。
- Action Fusion 减少工具调用开销:在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时,将多个小操作合并为一次批量执行,可以显著减少重复上下文注入,节省成本;对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果:让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理,可以提升上下文利用率,适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想:可以在业务 Agent 流水线上自动探索 token 效率优化配置(如提示压缩、工具调用顺序),用离线环境评估成本与效果,实现自动降本,不必手工调优。
可编辑视觉设计:编码 Agent 驱动的分层设计生成
🧭 Agent 驱动的可编辑视觉设计 ★ 深度解读
Tencent Hunyuan · Sun Yat-sen University · Tsinghua University · The Chinese University of Hong Kong · Shanghai Jiao Tong University
让 VLM 先调用图像模型做美学参考,再写原生 HTML/CSS 交付可分层编辑的设计
📌 工作参考价值(4 点)
- 广告/活动页创意生成:把“先出参考图再写 HTML/CSS”流程用于 banner/海报/商品主图。不要直接用扩散出 PNG,而是让图像模型只提供构图与色彩参考,由 Coding Agent 写原生 DOM,文案层、素材层、背景层分离,运营可拖拽改字换图,适配多渠道尺寸和文案合规修改。
- 素材资产层单独生成 + 绿幕/alpha 抠图,避免从参考图裁切导致的像素污染与图层纠缠;在电商商品图、活动背景、icon 等素材库可复用,提升素材可维护性。
- 渲染自修复闭环:将 headless 浏览器确定性检查(元素溢出、资源加载失败、DOM 畸形)与 VLM 截图审美评审结合,适合广告创意平台做自动质检和改稿,减少人工巡检;一轮/两轮局部 patch 即可收敛。
- Agent Design Replay / 过程可视化可作为创意平台的可追溯能力:记录 prompt→参考图→素材→代码→修改轨迹,让运营/设计师理解 AI 决策并介入,比黑盒出图更利于团队协作审核。
RealSWE:真实用户请求下的编码智能体组合评估
🧭 Agent 评估与提示信息组合优化
Sungkyunkwan University
构建多变量基准RealSWE,发现真实请求使LLM编码性能平均下降6.4pp,且明确期望行为与动机可显著提升表现
📌 工作参考价值(4 点)
- 在电商/搜索/推荐的对话式 Agent 或购物助手中,用户输入通常短且非正式,应通过追问或模板引导用户明确“期望行为”和“动机”,而不是补充环境信息或复现步骤;这些高信息密度字段能显著提升任务解决率。
- 设计 Agent 评估集时,可借鉴 RealSWE 的多变量任务家族思路:同一任务只改变信息构成和语言风格,能更稳健地测量模型对真实用户输入的适应性,避免仅用结构化基准数据高估能力。
- 对 prompt 工程中的上下文模块做消融测试:若某些模块(如环境信息、复现步骤)只增加 token 和延迟而无实际收益,应将其裁剪或折叠为可折叠摘要,降低推理成本。
- 训练或微调面向真实用户的 Agent 时,可加入非正式、缺失关键信息的样本,增强模型从简短输入推断意图和补全需求的能力。
Change2Task:从仓库变更自动构建可执行编码代理任务与环境
🧭 代理任务自动构建与验证
Microsoft · University of California San Diego · Zhejiang University · Xi’an Jiaotong University · Nanjing University
利用合并 PR 逆向重建健康代码库上的可验证编码代理任务,成功率达 79.6%,比 PR 基线多恢复 29.2%
📌 工作参考价值(4 点)
- 历史操作逆向为可复现环境:可借鉴 Patch Reversal 思路,将推荐系统的用户行为日志或实验配置「逆向」生成可重复执行的 Agent 训练任务,降低构造成本。
- 任务生命周期验证:从健康基础状态 → 任务状态 → 修复状态的全流程验证,可用于确保离线仿真环境的一致性和可靠性,避免训练与上线偏移。
- 环境基础复用节约开销:论文中重用现代基础镜像降低 10.8% 端到端成本,类似地,在推荐 Agent 的持续训练中通过共享基础镜像可减少重复构建。
- 多任务统一构造框架:覆盖 Bug 修复、特性添加等多类任务,启示搜索推荐 Agent 训练也可统一构造排序、召回、文案生成等不同任务,提升泛化性。
多领域编程Agent基准:抗污染任务构建与开放评估
🧭 多域编码Agent评估与抗污染基准 ★ 深度解读
Tencent (Youtu Lab, Keen Security Lab, Workbuddy, Yunding Security Lab)
提出跨Code/Web/Office/Security四域的抗污染编程Agent评估套件,任务由真实场景改写且完全开放可审计
📌 工作参考价值(4 点)
- 任务构造抗污染:从真实commit/PR反向工程并改写为口语化角色请求,隐藏根因和参考diff,使提示无法通过搜索获取,可借鉴用于构造内部Agent评测集,避免记忆偏差。
- 多域评估设计:覆盖仓库级代码、前端、办公文件、安全四大类,可按业务需求拆分类似维度评估自研Agent,尤其适合需处理多类型任务的推荐系统辅助Agent。
- 统一沙盒执行与开放审计:Harbor风格任务目录打包,双评估器可复现,全部测试和参考方案公开。在电商/广告Agent评测中,可参考其沙盒隔离和评估前隐藏测试的方式保证公平性。
- 反欺骗与可靠评分:Security的5层反欺骗机制(禁止字面量扫描、重命名输入等)和Office的证据驱动法官,可用于需要防止Agent走捷径的业务线上评测。
功能感知中间填充训练提升编码智能体基座模型
🧭 编码智能体训练 · 函数感知填充
用函数调用结构的自监督中间训练增强编码智能体,在复杂任务上提升超3%并缓解能力侵蚀
📌 工作参考价值(3 点)
- 主要是学术贡献,业务可借鉴点有限。
- 利用程序依赖图选择关键片段进行掩码训练的思想,可迁移到序列推荐中——针对高偏置交互或语义关键 token 进行掩码,强化模型对长程依赖的建模。
- 在对话式推荐 Agent 的训练中,可设计类似的中间训练阶段,注入“查询-结果-使用”的循环偏置,提升模型对工具返回结果的利用效率。
验证的边界:编码智能体奖励没有万能解
🧭 Agent奖励设计 · 验证信号共同演化
Qwen Team
论证验证信号需兼具可扩展性、忠实性与鲁棒性,四种奖励构建实验指出验证必须与生成器协同演化
📌 工作参考价值(4 点)
- 在推荐/广告排序模型优化中,离线代理指标(如CTR预估)常偏离真实业务目标,可借鉴可扩展–忠实–鲁棒三维框架,定期用用户直接反馈(类似论文“用户作为验证器”)校准奖励,防止过拟合代理指标。
- 生成式推荐(如Semantic ID生成)场景,生成器与验证器应联合迭代更新,防止固定验证标准导致的奖励黑客;可引入自动渐进验证器,随生成能力提升动态调整评估维度。
- 多智能体协作推荐中,对开放意图的用户Query,可采用类“rubric verifier”思路,将模糊需求分解为多个可自动检查的子指标(如多样性、时效性、相关性),提升验证信号鲁棒性。
- 长周期购物助手Agent任务中,可设计自动化验证Agent监控并分段评估推荐链路的中间步骤,降低人工评估成本,同时保持信号忠实性。
FastContext:为编程智能体训练高效的仓库探索器
🧭 Agent子代理专化与token效率优化
Microsoft · Shanghai Jiao Tong University
将仓库探索与任务求解分离,用专用小模型子代理并行搜索,最高提升5.5%解决率并削减60% token消耗
📌 工作参考价值(4 点)
- 在大模型推荐Agent中,可把商品库检索、用户画像查询等上下文探索任务交给专用小模型子代理,通过并行工具调用快速返回相关片段,避免主模型上下文爆炸和token浪费。
- 采用“强模型轨迹引导 + 任务奖励微调”两阶段训练法,利用大模型生成高质量探索路径,再在业务数据上微调小模型,低成本定制垂直领域(如电商搜索、广告定向)的探索器。
- 分离探索与推理的架构思想可直接迁移:设计“探索员-求解员”模式,探索员专注信息收集并返回带精确引用的证据,求解员仅做决策,可提升系统响应速度和决策准确性。
- token消耗降低60%的结论提示,在线上高并发推荐或对话场景中,通过精简上下文输入可大幅降低推理成本,且小模型额外开销极小,适合成本敏感业务。
更好地与你协作:将用户矫正编译为编码 Agent 的运行时执行规则
🧭 Agent 个性化 · 运行时规则编译与强制执行 ★ 深度解读
University of Notre Dame · IBM Research · Tencent AI Lab
提出 TRACE,把用户矫正编译成运行时强制检查,克服记忆检索却仍违反偏好的“访问‑合规”差距
📌 工作参考价值(4 点)
- 从反馈到硬约束:在电商或推荐 Agent 中,用户反馈(如“别再推这类商品”)若仅记入 memory,后续仍可能违反。可借鉴 TRACE 将反馈编译为可执行规则,在排序前、回复生成前用钩子(hook)校验,强制执行,减少用户重复纠正。
- 规则生命周期管理:面对持续的用户修正,通过五类动作(new/update/supersede/split/noop)动态维护规则库,避免冲突和退化,适用于个性化策略的增量演化。
- 记忆与强制互补:系统可同时保留记忆存储(上下文感知)和规则引擎(强制执行)。对于成本敏感的推荐场景,对关键偏好(如明确过滤条件)施加编译检查,对软性偏好仍用记忆提示,二者非替代关系。
- 轻量规则提取:使用小型 LLM 自动从用户反馈中提取原子规则和验证正则(如检测“debug 文件清理”的命令模式),在电商 Agent 中可自动生成“取消订单后禁止推荐同类商品”的触发条件和校验逻辑,降低人工配置成本。